Random Forest

feature 일부분만을 혹은 train data의 일부분만을 random하게 뽑아 여러 Decision Tree을 학습시켜 Ensemble하는 Bagging이 일종.

Bagging과 동일하게 $L$ 개의 model에 대해 $L$ 개의 데이터를 추출한다.

Tree의 각각의 Spliting Point에 대하여, Information Gain이 가장 높은 randomly sampled 된 feature를 이용해 Tree를 구성한다.
Tree마다 train data나 feature가 다르게 들어가므로 각각 다른 tree가 형성되게 된다.